KL-MOPD: Discrepancy-Aware Multi-Objective On-Policy Distillation for Generative Recommendation
KL-MOPD：面向生成式推荐的多目标在线策略蒸馏
🧭 生成式推荐 · 多目标蒸馏 ★ 深度解读
Zhejiang University · Alibaba Group · Alibaba International Digital Commerce Group
用初始学生与教师 token 级 KL 差异加权，解决生成式推荐多目标蒸馏中的 token 级不平衡，提升联合目标
📌 工作参考价值（4 点）
- 在生成式推荐（Semantic ID 逐 token 解码）中，多目标融合要下沉到 token 级做 on-policy 蒸馏，而不是只做 item 级 loss 或分数融合；否则中间步骤的 token 错误会直接导致正样本检索失败。
- 工程实现上，先用 initial student 和两个 teacher 计算每个 token 的 KL 散度，得到权重 alpha_{j,t} 并预计算一次；训练时直接作为 token 蒸馏 loss 的加权系数，不增加额外前向/反向开销，适合线上大规模部署。
- 若已有 CTR、CVR/GMV 等单目标 teacher，可以直接套用该加权方法：在每个 token 上给离学生更远的 teacher 更高权重，优先补强当前步骤的薄弱目标，缓解解码后期某目标被忽略的问题。
- 电商广告场景验证：十亿级工业数据离线 joint metric +3.19%，线上 A/B 广告收入 +1.63%、GMV +2.20%，说明 token 级多目标蒸馏能带来真实业务收益。